Recent studies have shown the impressive efficacy of counterfactually augmented data (CAD) for reducing NLU models' reliance on spurious features and improving their generalizability. However, current methods still heavily rely on human efforts or task-specific designs to generate counterfactuals, thereby impeding CAD's applicability to a broad range of NLU tasks. In this paper, we present AutoCAD, a fully automatic and task-agnostic CAD generation framework. AutoCAD first leverages a classifier to unsupervisedly identify rationales as spans to be intervened, which disentangles spurious and causal features. Then, AutoCAD performs controllable generation enhanced by unlikelihood training to produce diverse counterfactuals. Extensive evaluations on multiple out-of-domain and challenge benchmarks demonstrate that AutoCAD consistently and significantly boosts the out-of-distribution performance of powerful pre-trained models across different NLU tasks, which is comparable or even better than previous state-of-the-art human-in-the-loop or task-specific CAD methods. The code is publicly available at https://github.com/thu-coai/AutoCAD.

Salient object detection (SOD) focuses on distinguishing the most conspicuous objects in the scene. However, most related works are based on RGB images, which lose massive useful information. Accordingly, with the maturity of thermal technology, RGB-T (RGB-Thermal) multi-modality tasks attain more and more attention. Thermal infrared images carry important information which can be used to improve the accuracy of SOD prediction. To accomplish it, the methods to integrate multi-modal information and suppress noises are critical. In this paper, we propose a novel network called Interactive Context-Aware Network (ICANet). It contains three modules that can effectively perform the cross-modal and cross-scale fusions. We design a Hybrid Feature Fusion (HFF) module to integrate the features of two modalities, which utilizes two types of feature extraction. The Multi-Scale Attention Reinforcement (MSAR) and Upper Fusion (UF) blocks are responsible for the cross-scale fusion that converges different levels of features and generate the prediction maps. We also raise a novel Context-Aware Multi-Supervised Network (CAMSNet) to calculate the content loss between the prediction and the ground truth (GT). Experiments prove that our network performs favorably against the state-of-the-art RGB-T SOD methods.

随着在线聊天的日益普及，贴纸在我们的在线沟通中变得越来越重要。在开放域对话中选择适当的贴纸需要对对话和贴纸以及两种类型的方式之间的关系有全面的了解。为了应对这些挑战，我们提出了一种由三个辅助任务组成的多任务学习方法，以增强对对话历史，情感和语义含义的理解。在最近的一个具有挑战性的数据集中进行的广泛实验表明，我们的模型可以更好地结合多模式信息，并在强质基础上获得更高的精度。消融研究进一步验证了每个辅助任务的有效性。我们的代码可在\ url {https://github.com/nonstopfor/sticker-selection}中找到

我们将受约束的线性数据特征映射模型提出作为使用卷积神经网络（CNN）的图像分类的可解释数学模型。从这个角度来看，我们建立了线性系统的传统迭代方案与Reset-and Mgnet型模型的基本块体系结构之间的详细连接。使用这些连接，我们介绍了一些修改的Reset模型，与原始模型相比具有更少的参数，但可以产生更准确的结果，从而展示该受约束的学习数据特征映射假设的有效性。基于此假设，我们进一步提出了一般的数据特征迭代方案来展示MGNet的合理性。我们还对MGNet提供系统的数值研究，以显示其在图像分类问题中的成功和优势，并展示其与已建立的网络相比的优点。

建立一个社会智能代理人涉及许多挑战，其中一个是教导代理人以人类的价值交谈。然而，在对话系统的区域中仍然可以解读价值驱动的聊天聊天。大多数现有数据集重点关注致命的推理或社会规范建模。在这项工作中，我们提出了一个名为ValueNet的新的大型人类价值数据集，其中包含21,374个文本情景的人为态度。数据集在十维中组织，符合跨文化研究中的基本人类价值理论。我们进一步开发了ValueNet的基于变换器的值回归模型，以学习公用事业分配。综合实证结果表明，学习的价值模型可以使广泛的对话任务受益。例如，通过教授具有钢筋学习的生成代理和价值模型的奖励，我们的方法在个性化对话生成数据集中获得最先进的性能：Persona-Chat。具有额外特征的价值，现有的情感识别模型使得能够在上下文中捕捉丰富的人类情绪，这进一步提高了IncatheticDialogues数据集中的致力学响应生成性能。据我们所知，Valuenet是人类价值建模的第一个大型文本数据集，我们是第一个尝试将价值模型结合到情感智能对话系统中的人。数据集可在https://liang-qiu.github.io/valuenet/上获得。

基于RGB-D信息的多模态突出物体检测模型在现实世界中具有更好的鲁棒性。然而，它仍然是在特征融合阶段中的更好地平衡有效的多模态信息而变得不利。在这封信中，我们提出了一种新颖的门控校正网络（GRNET）来评估两种模式的信息有效性，并平衡其影响力。我们的框架分为三个阶段：感知阶段，重新编码混合阶段和特征集成阶段。首先，采用了一种感知编码器来提取多级单模态特征，这为多模态语义比较分析奠定了基础。然后，提出了一种模态 - 自适应栅极单元（MGU）以抑制无效信息并将有效的模态特征传送到重新编码混频器和混合分支解码器。 Recoding混频器负责重新编码和混合平衡的多模态信息。最后，混合分支解码器根据可选边缘引导流（OEG）的指导完成多级特征集成。八种流行基准测试的实验与分析验证了我们的框架对9种最先进的方法表现有利。

Non-autoregressive neural machine translation (NAT) models suffer from the multi-modality problem that there may exist multiple possible translations of a source sentence, so the reference sentence may be inappropriate for the training when the NAT output is closer to other translations. In response to this problem, we introduce a rephraser to provide a better training target for NAT by rephrasing the reference sentence according to the NAT output. As we train NAT based on the rephraser output rather than the reference sentence, the rephraser output should fit well with the NAT output and not deviate too far from the reference, which can be quantified as reward functions and optimized by reinforcement learning. Experiments on major WMT benchmarks and NAT baselines show that our approach consistently improves the translation quality of NAT. Specifically, our best variant achieves comparable performance to the autoregressive Transformer, while being 14.7 times more efficient in inference.

在最近的半监督语义分割方法中，一致性正则化已被广泛研究。从图像，功能和网络扰动中受益，已经实现了出色的性能。为了充分利用这些扰动，在这项工作中，我们提出了一个新的一致性正则化框架，称为相互知识蒸馏（MKD）。我们创新地基于一致性正则化方法，创新了两个辅助均值老师模型。更具体地说，我们使用一位卑鄙的老师生成的伪标签来监督另一个学生网络，以在两个分支之间进行相互知识蒸馏。除了使用图像级强和弱的增强外，我们还采用了特征增强，考虑隐性语义分布来增加对学生的进一步扰动。提出的框架大大增加了训练样本的多样性。公共基准测试的广泛实验表明，我们的框架在各种半监督设置下都优于先前的最先进方法（SOTA）方法。

神经网络是通用函数近似器，尽管过度参数过多，但已知可以很好地概括。我们从神经网络的光谱偏置的角度研究了这种现象。我们的贡献是两个方面。首先，我们通过利用与有限元方法理论的联系来为Relu神经网络的光谱偏置提供理论解释。其次，基于该理论，我们预测将激活函数切换到分段线性B-Spline（即HAT函数）将消除这种频谱偏置，我们在各种设置中进行经验验证。我们的经验研究还表明，使用随机梯度下降和ADAM对具有HAT激活功能的神经网络进行了更快的训练。结合以前的工作表明，HAT激活功能还提高了图像分类任务的概括精度，这表明使用HAT激活在某些问题上具有重大优势。

许多学科的动力系统被建模为相互作用的粒子或试剂，其相互作用规则取决于非常少量的变量（例如，成对距离，相位的成对差异，等等），这是代理对状态的函数。然而，这些相互作用规则可以产生自组织的动力学，并具有复杂的新兴行为（聚类，羊群，蜂群等）。我们提出了一种学习技术，鉴于沿着代理轨迹的状态和速度的观察，它以非参数方式产生了相互作用内核所依赖的变量和相互作用内核本身。这产生了有效的尺寸降低，从而避免了高维观测数据（所有试剂的状态和速度）的维度诅咒。我们证明了我们的方法对各种一阶交互系统的学习能力。